Module LLM Kit

SKU:K144

概要

Module LLM Kitは、オフラインAI推論とデータ通信インターフェースアプリケーションに特化したスマートモジュラーキットです。Module LLMとModule13.2 LLM Mateモジュールを統合し、様々なシナリオにおけるオフラインAI推論とデータ対話の要件を満たします。

Module LLMは、効率的でインテリジェントな対話を必要とする端末デバイス向けに特別に設計された、統合型オフライン大規模言語モデル（LLM）推論モジュールです。スマートホームアプリケーション、音声アシスタント、または産業制御など、Module LLMはクラウドに依存せずにスムーズで自然なAI体験を提供し、プライバシー、セキュリティ、安定性を確保します。

Module13.2 LLM Mate Moduleは、システム統合と拡張を容易にするための様々なインターフェース機能を提供します。M5BUSインターフェースを介してModule LLMとスタック電源供給を実現し、内蔵のCH340N USB変換チップはUSBからシリアルへのデバッグ機能を提供し、Type-CインターフェースはUSBログ出力に使用されます。さらに、RJ45インターフェースはオンボードネットワークトランスフォーマーと連携して100 Mbpsイーサネットポートとコアシリアルポート（SBCアプリケーションをサポート）に拡張します。FPC-8PインターフェースはModule LLMに直接接続し、安定したシリアル通信を確保します。さらに、DIY拡張用にHT3.96*9Pはんだパッドが予約されています。

Module LLMモジュールは、StackFlowフレームワークとArduino/UiFlowライブラリを統合しており、わずか数行のコードでエッジインテリジェンスを実装することができます。先進的なAiXin AX630C SoCプロセッサを搭載し、Transformerモデルをネイティブサポートする高効率NPUが3.2 TOPSを提供し、複雑なAIタスクを容易に処理します。4GB LPDDR4メモリ（ユーザーアプリケーション用に1GBと、ハードウェアアクセラレーション専用に3GB）と32GB eMMCストレージを搭載し、並列マルチモデルのロードとチェーン推論をサポートし、スムーズなマルチタスクを確保します。動作消費電力はわずか約1.5Wで、同様の製品よりもはるかにエネルギー効率が高く、長期運用に理想的です。

Module LLMは複数のモデルと互換性があり、Qwen2.5-0.5B大規模言語モデルがプリインストールされており、KWS（ウェイクワード）、ASR（音声認識）、LLM（大規模言語モデル）、TTS（テキスト読み上げ）などの組み込み機能を備えています。また、aptベースのソフトウェアとモデルパッケージの迅速な更新もサポートしています。openai-apiプラグインをインストールすることで、OpenAI標準APIと互換性を持ち、チャット、会話の完了、音声からテキスト、テキストから音声など、様々なアプリケーションモードをサポートします。公式aptリポジトリは、deepseek-r1-distill-qwen-1.5b、InternVL2_5-1B-MPO、Llama-3.2-1B、Qwen2.5-0.5B、Qwen2.5-1.5Bなどの豊富な大規模モデルリソースと、テキスト読み上げモデル（melotts）、音声認識モデル（whisper-tiny、whisper-base）、視覚モデル（yolo11などのSOTAモデル）を提供しています。リポジトリは継続的に更新され、最先端のモデルアプリケーションをサポートし、複雑なAIタスクの要求に応えます。

Module LLM Kitはプラグアンドプレイで、M5Coreと組み合わせると、即座にAIインタラクティブ体験を提供します。ユーザーは煩雑な設定なしに既存のスマートデバイスにシームレスに統合でき、迅速にインテリジェント機能を有効にしてデバイスのパフォーマンスを向上させることができます。この製品は、オフライン音声アシスタント、テキスト読み上げ変換、スマートホーム制御、インタラクティブロボットなどに最適です。

チュートリアル

Arduino IDE

このチュートリアルでは、Arduino IDEを使用してModule LLMデバイスをプログラムおよび制御する方法を紹介します

UiFlow2

このチュートリアルでは、UiFlow2グラフィカルプログラミングプラットフォームを使用してModule LLMデバイスを制御する方法を紹介します

特徴

オフライン推論、INT8精度で3.2 TOPS
統合されたKWS（ウェイクワード）、ASR（音声認識）、LLM（大規模言語モデル）、TTS（テキスト読み上げ）
並列マルチモデル処理
オンボード32GB eMMCストレージと4GB LPDDR4メモリ
オンボードマイクとスピーカー
シリアル通信
SDカードファームウェアアップグレード
ADBデバッグをサポート
RGBステータスLED
内蔵Ubuntuシステム
OTG機能をサポート
開発プラットフォーム
- UiFlow1
- UiFlow2
- Arduino IDE

含まれるもの

1 x Module LLM
1 x Module LLM Mate
2 x FPC-8P ケーブル

用途

オフライン音声アシスタント
テキスト読み上げ変換
スマートホーム制御
インタラクティブロボット

仕様

項目	パラメータ
プロセッサSoC	AX630C@Dual Cortex A53 1.2 GHz MAX.12.8 TOPS @INT4, 3.2 TOPS @INT8
メモリ	4GB LPDDR4 (1GBシステムメモリ + 3GBハードウェアアクセラレーション専用)
ストレージ	32GB eMMC5.1
通信方式	シリアル通信、デフォルトボーレート115200@8N1（調整可能）
マイク	MSM421A
オーディオドライバ	AW8737
スピーカー	8Ω@1W、サイズ：2014キャビティスピーカー
内蔵機能	KWS（ウェイクワード）、ASR（音声認識）、LLM（大規模言語モデル）、TTS（テキスト読み上げ）
RGB LED	3x RGB LED@2020、LP5562駆動（ステータスインジケータ）
消費電力	無負荷時：5V@0.5W、フル負荷時：5V@1.5W
ボタン	ファームウェアダウンロードモードに入るために使用
アップグレードインターフェース	SDカード/Type-Cポート
変換チップ	CH340N
イーサネットインターフェース	オンボードネットワークトランスフォーマー付きRJ45インターフェース（11FB-05NL SOP-16）
シリアルインターフェース	FPC-8Pインターフェース、Type-Cインターフェース、RJ45インターフェース
DIY拡張	HT3.96*9Pはんだパッド
動作温度	0-40°C
製品サイズ	Module LLM: 54.0 x 54.0 x 13.0mm Module13.2 LLM Mate: 54 x 54 x 19.7mm
パッケージサイズ	Module LLM: 192.0 x 95.0 x 17.0mm Module13.2 LLM Mate: 192.0 x 95.0 x 21.0mm
製品重量	Module LLM: 17.4g Module13.2 LLM Mate: 19.2g
パッケージ重量	Module LLM: 32.0g Module13.2 LLM Mate: 34.8g

学習

接続手順とインターフェース概要

module size

回路図

1/10

ピン配置

Module LLM	RXD	TXD
Core (Basic)	G16	G17
Core2	G13	G14
CoreS3	G18	G17

Module LLMピン切り替え

Module LLMにはピン切り替え用のはんだパッドが予約されています。ピン多重化の競合が発生した場合、PCBトレースを切断して別のピンセットに接続をジャンパーすることができます。チュートリアルを参照してください。

製品サイズ

データシート

AX630C

ソフトウェア

Module LLM動作ステータスLED:
- 赤: デバイス初期化中
- 緑: デバイス初期化完了
Module LLMアプリケーションアップグレードステータスLED:
- 青点滅: アプリケーションパッケージ更新中
- 赤: アプリケーションパッケージアップグレード失敗
- 緑: アプリケーションパッケージアップグレード成功

Module LLMモデル交換に関する注意

LLMモジュールがサポートするモデルは、正常に機能するために特別な処理が必要なAiXin独自のフォーマットです。そのため、市販のモデルを直接使用することはできません。